정보과학회 컴퓨팅의 실제 논문지 (KIISE Transactions on Computing Practices)
Current Result Document :
| 한글제목(Korean Title) |
다중 인코더 Transformer 기반 번역문 자동 사후 교정 모델의 디코더 주의 구조 연구 |
| 영문제목(English Title) |
Research on the Decoder Attention Structure of Multi-encoder Transformer-based Automatic Post-Editing Model |
| 저자(Author) |
신재훈
이원기
김영길
한효정
이종혁
Jaehun Shin
WonKee Lee
Youngkil Kim
H.Jeung Han
Jong-Hyeok Lee
|
| 원문수록처(Citation) |
VOL 26 NO. 08 PP. 0367 ~ 0372 (2020. 08) |
한글내용
(Korean Abstract) |
번역문 자동 사후 교정은 기계 번역 시스템의 결과물을 자동으로 교정하여 더 나은 번역문을 만들어내는 과정으로, 기계 번역 시스템 외적으로 기계 번역의 품질 향상을 수행하기 위해 제안된 연구 분야이다. 본 논문에서는 번역문 자동 사후 교정 문제에 사용되는 다중 인코더 Transformer 기반 교정 모델의 기본 구조를 살펴본 뒤, 디코더에서 인코더 출력과의 상호 의존성을 담당하는 주의 구조를 다양하게 구성하고 적용해 보았다. WMT18 사후 교정 말뭉치를 이용한 실험에서는 다중 인코더 Transformer를 이용한 모델 전부가 기계 번역 시스템의 결과물에 비해 더 나은 품질의 문장을 생성하였으며, 디코더 내에 번역문에 원문의 문맥 정보를 반영하는 구조를 적용하는 것이 사후 교정의 성능 향상에 크게 기여함을 확인할 수 있었다
|
영문내용
(English Abstract) |
Automatic Post-Editing (APE) is a study on the correction for the output of machine translation (MT) system for the purpose of improving its translation quality independent of the MT system itself. In this paper, we examine the basic architecture of a multi-encoder transformer-based APE model, and implement several variants of the system’s encoder-decoder attention layer which takes the outputs of the multi-encoder as its inputs. In experiments with the WMT18 APE data, all variations on our model successfully improve the translation quality of the original MT outputs. In particular, we find modeling the attention to incorporate source sentence context into the translated sentence improves post-editing performance.
|
| 키워드(Keyword) |
기계 번역
번역문 자동 사후 교정
트랜스포머
다중 인코더 구조
주의 집중 기법
machine translation
automatic post-editing
transformer
attention mechanism
multi-encoder architecture
|
| 파일첨부 |
PDF 다운로드
|
